Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents
基于选择的结构化推理:迈向高效多模态搜索智能体
🧭 Agent推理效率优化·选择式结构化推理 ★ 深度解读
Apple · Carnegie Mellon University
将多模态搜索Agent的逐步推理从自由生成改为从候选库中并行选择,保持成功率且推理延迟降超90%
📌 工作参考价值(4 点)
- 在电商导购/搜索 Agent 中,把每轮规划从自由生成改成路由选择:预先定义 5-10 条高频决策候选,如“澄清需求 / 生成搜索 query / 比价 / 读图识别 / 基于证据作答”,让模型按上下文似然打分选择,再用选中候选引导 action 解码。这样能保留自然语言 guidance 的效果,同时规避自回归推理的延迟不可控。
- 工程上可直接复用“并行 prefill 打分”的做法:对候选文本做 teacher-forced logprob 计算,共享历史 KV cache,不需要额外分类头或 SFT warm-up;用 SGLang 的 logprob_start_len + max_new_tokens=0 可实现。候选库可离线维护,p95 延迟比自由生成稳定得多,适合在线流量。
- 训练层面,若用 RL 训练 Agent,可把“规划/路由选择”当作 categorical action,动作 token 保持常规 importance ratio;用 GRPO 更稳,GSPO/SAPO 多步更新时 selector-gradient 近似会损失精度,业务上可采用更多 rollout 或一次更新。
- 候选设计要注意两点:不要只打分 index,要打分完整自然语言文本的语义;库规模从 1 到 6 带来看得见的提升,所以可以先用日志聚类/高绩效轨迹总结出高频意图,再逐步扩展到 6-10 条。